ChatGPT za najstnike ne bo več enak. Kaj se spreminja

Razvijalec umetne inteligence OpenAI bo od torka naprej po vsem svetu uvedlo namensko različico chatGPT za uporabnike, stare od 13 do 17 let, poroča Euronews.

Ta bo opremljena z večjimi zaščitnimi ukrepi za duševno zdravje in funkcijami za spodbujanje kritičnega mišljenja. OpenAI se s tem skuša odzvati na negativne odzive glede učinkov umetne inteligence na mlade.

Poteza prihaja v času, ko se OpenAI sooča s številnimi tožbami družin, ki trdijo, da so bili njihovi otroci oškodovani zaradi uporabe chatGPT. Znan je denimo primer 16-letnika iz Kalifornije, ki je glede na navedbe iz sodnih dokumentov storil samomor, potem ko je o tem razpravljal s chatGPT, ki je zagotovil podrobna navodila.

Lani je raziskava nadzornega organa tudi pokazala, da chatGPT trinajstletnikom lahko pove, kako se napiti in omamiti, jih pouči, kako prikriti motnje hranjenja, ter jim celo napiše srce parajoče poslovilno pismo.

Raziskovalci in starši izražajo vse večjo zaskrbljenost zaradi čustvene odvisnosti najstnikov od klepetalnih robotov. Tudi odrasli lahko razvijejo nezdrave odnose z njimi, vendar možgani najstnikov še niso popolnoma razviti in so lahko še posebej ranljivi, opozarjajo.

Poostren starševski nadzor

OpenAI nima preverjanja starosti uporabnikov, vendar že uporablja nekatere druge metode za ocenjevanje, ali je nekdo mlajši od 18 let, kot so na primer vrste poizvedb. Če bo nekdo identificiran kot mladoletnik ali se sam identificira kot mladoletnik, bo po novem samodejno premeščen v najstniško različico klepetalnega robota.

Nova različica bo imela strožji nadzor nad ustvarjanjem slik in vsebin v zvezi s samopoškodovanjem, nasiljem, motnjami hranjenja in spolnostjo.

Poostren bo starševski nadzor. Starši s povezanimi najstniškimi računi bodo lahko nastavili “tihe ure”, ko njihov najstnik ne more dostopati do chatGPT, prejemali pa bodo tudi varnostna obvestila v situacijah z visokim tveganjem, kot je možnost, da se uporabnik poškoduje.

“Dodajamo dodatna obvestila, povezana z motnjami hranjenja, hkrati pa omejujemo, kaj se deli, in se osredotočamo na trenutke, ko je podpora brez povezave morda najpomembnejša,” so navedli pri OpenAI.

Dodatni ukrepi za duševno zdravje

ChatGPT ne bo smel uporabljati romantičnega jezika, spodbujati čustvene odvisnosti ali namigovati, da ima čustva ali zavest.

Imel bo tudi opomnik pred nalaganjem, ki bo najstnike opozoril pred deljenjem zasebnih ali občutljivih slik. Ob daljši uporabi pa jih bo spominjal, naj si vzamejo odmor.

Podpora za učenje, ne podajanje odgovorov

Že dalj časa se pojavljajo očitki, da chatGPT omogoča goljufanje pri šolskih nalogah. Najstniška različica je po navedbah OpenAI zasnovana za podporo učenju in domači nalogi. Učencem naj bi pomagala korak za korakom reševati probleme, namesto da bodo preprosto prejeli rešitev.

Podjetje že ponuja tudi različico chatGPT za učitelje, prilagoditev modela za pomoč najstnikom pri učenju in domačih nalogah pa bi OpenAI lahko v prihodnosti uvedel tudi v šole, še poroča Euronews.